Mô hình markov ẩn là gì? Các nghiên cứu về Mô hình markov ẩn

Mô hình Markov ẩn là gì?

Mô hình Markov ẩn (Hidden Markov Model - HMM) là một mô hình thống kê mô tả một hệ thống mà trạng thái thực sự (ẩn) của nó không thể quan sát trực tiếp, nhưng có thể được suy luận thông qua một chuỗi các tín hiệu hoặc dữ liệu quan sát được. Các trạng thái ẩn tuân theo tính chất Markov, nghĩa là xác suất chuyển trạng thái chỉ phụ thuộc vào trạng thái hiện tại và không phụ thuộc vào các trạng thái trước đó. HMM được sử dụng rộng rãi trong các bài toán xử lý ngôn ngữ tự nhiên, sinh học tính toán, nhận dạng mẫu, và mô hình hóa chuỗi thời gian trong tài chính.

Các thành phần cơ bản của HMM

Một mô hình Markov ẩn tiêu chuẩn được xác định bởi năm tham số:

• Tập hợp trạng thái ẩn $S = \{s_1, s_2, \dots, s_N\}$: Các trạng thái không thể quan sát trực tiếp.
• Tập hợp các quan sát $V = \{v_1, v_2, \dots, v_M\}$: Các tín hiệu có thể đo đạc hoặc ghi nhận được.
• Ma trận xác suất chuyển trạng thái $A = [a_{ij}]$: $a_{ij} = P(s_{t+1} = j \mid s_t = i)$
• Ma trận xác suất phát hiện (emission) $B = [b_j(k)]$: $b_j(k) = P(o_t = v_k \mid s_t = j)$
• Phân phối xác suất khởi đầu $\pi = [\pi_i]$: $\pi_i = P(s_1 = i)$

Thông thường, một HMM được ký hiệu tổng quát là $\lambda = (A, B, \pi)$.

Ba bài toán cơ bản trong Mô hình Markov ẩn

Để sử dụng HMM hiệu quả, cần giải quyết ba bài toán cơ bản:

• 1. Bài toán đánh giá: Tính xác suất $P(O \mid \lambda)$ cho chuỗi quan sát $O$ đã cho và mô hình $\lambda$. Thuật toán Forward được sử dụng để tính nhanh giá trị này.
• 2. Bài toán giải mã: Xác định chuỗi trạng thái ẩn tối ưu đã sinh ra chuỗi quan sát. Thuật toán Viterbi là kỹ thuật phổ biến nhất cho mục tiêu này.
• 3. Bài toán học tham số: Ước lượng các tham số $A$, $B$, $\pi$ để tối đa hóa $P(O \mid \lambda)$. Thuật toán Baum-Welch (một dạng đặc biệt của EM) được sử dụng.

Thuật toán Forward

Thuật toán Forward tính xác suất chuỗi quan sát bằng cách đệ quy, thay vì tính tổng toàn bộ số lượng chuỗi trạng thái tiềm năng:

Định nghĩa biến forward $\alpha_t(i)$ là xác suất quan sát được $o_1, o_2, ..., o_t$ và hệ thống ở trạng thái $s_i$ tại thời điểm $t$:

$\alpha_t(i) = P(o_1, o_2, \dots, o_t, s_t = i \mid \lambda)$

Thuật toán tính $\alpha$ theo quy trình khởi tạo, đệ quy, và kết thúc để tìm $P(O \mid \lambda)$.

Thuật toán Viterbi

Thuật toán Viterbi tìm chuỗi trạng thái ẩn tối ưu với xác suất tối đa. Biến Viterbi $\delta_t(i)$ được định nghĩa như sau:

$\delta_t(i) = \max_{s_1, s_2, \dots, s_{t-1}} P(s_1, s_2, \dots, s_{t-1}, s_t = i, o_1, o_2, \dots, o_t \mid \lambda)$

Thuật toán cũng dựa trên quy trình khởi tạo, đệ quy, và truy vết ngược để xác định chuỗi trạng thái tốt nhất.

Thuật toán Baum-Welch

Baum-Welch là thuật toán huấn luyện HMM từ dữ liệu quan sát, dựa trên nguyên lý Expectation-Maximization:

• Expectation step: Tính kỳ vọng của số lần chuyển giữa các trạng thái và số lần sinh ra mỗi quan sát.
• Maximization step: Cập nhật $A$, $B$ và $\pi$ để tối đa hóa xác suất tổng thể.

Baum-Welch cho phép tìm được tham số hợp lý nhất khi dữ liệu huấn luyện không có nhãn trạng thái.

Ứng dụng thực tiễn của Mô hình Markov ẩn

• Nhận dạng tiếng nói: Các hệ thống như Siri, Alexa, Google Assistant sử dụng HMM để phân tích chuỗi âm thanh và ánh xạ thành từ ngữ, chi tiết trong IEEE Tutorial on HMMs and Speech Recognition.
• Phân tích trình tự sinh học: Dùng để tìm gene, phân tích vùng protein bằng phần mềm như HMMER.
• Dự báo tài chính: HMM giúp mô hình hóa thị trường tài chính không ổn định và xác định các pha thị trường (bò - gấu).
• Nhận dạng chữ viết tay: Áp dụng HMM để nhận dạng chuỗi ký tự viết tay trong tài liệu số hóa.

Ưu điểm và hạn chế của HMM

• Ưu điểm: Hiệu quả trong xử lý chuỗi, yêu cầu ít tham số, dễ diễn giải và dễ tích hợp với các phương pháp học máy khác.
• Hạn chế: Giả định Markov bậc 1 (chỉ phụ thuộc vào trạng thái trước đó) là hạn chế; khó mở rộng với dữ liệu phi tuyến tính hoặc có phụ thuộc dài hạn; học tham số dễ rơi vào cực trị cục bộ.

Các mô hình mở rộng từ HMM

• HMM liên tục: Sử dụng phân phối liên tục như Gaussian để mô hình hóa đầu ra, thay vì tập giá trị rời rạc.
• Hierarchical HMM (HHMM): Mô hình đa cấp, cho phép mô tả quá trình phức tạp hơn với nhiều lớp trạng thái ẩn.
• Conditional Random Fields (CRFs): Khắc phục hạn chế Markov của HMM bằng cách mô hình hóa phân phối có điều kiện, được sử dụng nhiều trong gán nhãn chuỗi.

So sánh HMM với CRFs

Tiêu chí	HMM	CRFs
Kiểu mô hình	Generative (sinh dữ liệu)	Discriminative (phân biệt)
Phụ thuộc trạng thái	Chỉ trạng thái hiện tại	Có thể mở rộng nhiều đặc trưng hơn
Ứng dụng	Nhận dạng tiếng nói, sinh học	Gán nhãn chuỗi, phân loại

Kết luận

Mô hình Markov ẩn là một trong những công cụ nền tảng cho việc phân tích và dự đoán chuỗi dữ liệu trong khoa học máy tính và trí tuệ nhân tạo. Dù tồn tại một số giới hạn về khả năng mô hình hóa các phụ thuộc phức tạp, HMM vẫn giữ vai trò cốt lõi trong nhiều ứng dụng thực tế và là nền tảng cho sự phát triển của các mô hình chuỗi tiên tiến hơn như LSTM và CRFs.